Wang Haihua
🍈 🍉🍊 🍋 🍌
这里的平稳是指宽平稳，其特性是序列的统计特性不随时间的平移而变化，即均值和协方差不随时间的平移而变化。
定义 1 给定随机过程 $\left\{X_{t}, t \in T\right\}$ 。固定 $t, X_{t}$ 是一个随机变量, 设其 均值为 $\mu_{t}$, 当 $t$ 变动时, 此均值是 $t$ 的函数, 记为 $\mu_{t}=E\left(X_{t}\right)$, 称为随机过程 的均值函数。 固定 $t$, 设 $X_{t}$ 的方差为 $\sigma_{t}^{2}$ 。当 $t$ 变动时, 这个方差也是 $t$ 的函数, 记为 $$ \sigma_{t}^{2}=\operatorname{Var}\left(X_{t}\right)=E\left[\left(X_{t}-\mu_{t}\right)^{2}\right], $$ 称为随机过程的方差函数。方差函数的平方根 $\sigma_{t}$ 称为随机过程的标准差函 数, 它表示随机过程 $X_{t}$ 对于均值函数 $\mu_{t}$ 的偏离程度。
定义 2 对随机过程 $\left\{X_{t}, t \in T\right\}$, 取定 $t, s \in T$, 定义其自协方差函数 为 $$ \gamma_{t, s}=\operatorname{Cov}\left(X_{t}, X_{s}\right)=E\left[\left(X_{t}-\mu_{t}\right)\left(X_{s}-\mu_{s}\right)\right], $$ 为刻画 $\left\{X_{t}, t \in T\right\}$ 在时刻 $t$ 与 $s$ 之间的相关性, 还可将 $\gamma_{t, s}$ 标准化, 即定义自相 关函数 $$ \rho_{t, s}=\frac{\gamma_{t, s}}{\sqrt{\gamma_{t, t}} \sqrt{\gamma_{s, s}}}=\frac{\gamma_{t, s}}{\sigma_{t} \sigma_{s}} . $$ 因此, 自相关函数 $\rho_{t, s}$ 是标准化自协方差函数。
定义 3 设随机序列 $\left\{X_{t}, t=0, \pm 1, \pm 2, \cdots\right\}$ 满足 (1) $E\left(X_{t}\right)=\mu=$ 常数; (2) $\gamma_{t+k, t}=\gamma_{k}(k=0, \pm 1, \pm 2, \cdots)$ 与 $t$ 无关。 则称 $X_{t}$ 为平稳随机序列 (平稳时间序列)，简称平稳序列。
定义 4 设平稳序列 $\left\{\varepsilon_{t}, t=0, \pm 1, \pm 2, \cdots\right\}$ 的自协方差函数 $\gamma_{k}$ 是 $$ \gamma_{k}=\sigma^{2} \delta_{k, 0}= \begin{cases}\mathbf{0}, & k \neq 0, \\ \sigma^{2}, & k=0,\end{cases} $$ 其中 $\delta_{k, 0}=\left\{\begin{array}{ll}1, & k=0 \\ 0, & k \neq 0\end{array}\right.$, 则称该序列为平稳白噪声序列。 平稳白噪声序列的方差是常数 $\sigma^{2}$, 因为 $\gamma_{k}=0(k \neq 0)$, 则 $\varepsilon_{t}$ 的任意两个不 同时点之间是不相关的。平稳白噪声序列是一种最基本的平稳序列。
定义 5 设 $\left\{\varepsilon_{t}, t=\mathbf{0}, \pm 1, \pm 2, \cdots\right\}$ 是零均值平稳白噪声, $\operatorname{Var}\left(\varepsilon_{t}\right)=\sigma_{\varepsilon}^{2}$ 。 若 $\left\{\boldsymbol{G}_{\boldsymbol{k}}, \boldsymbol{k}=\mathbf{0}, 1,2, \cdots\right\}$ 是一数列, 满足 $$ \sum_{k=0}^{\infty}\left|\boldsymbol{G}_{k}\right|<+\infty, \quad \boldsymbol{G}_{\mathbf{0}}=\mathbf{1}, $$ 定义随机序列 $$ X_{t}=\sum_{k=0}^{\infty} G_{k} \varepsilon_{t-k}, $$ 则 $X_{t}$ 称为随机线性序列。在条件 (18.13) 下, 可证式 (18.14) 中的 $X_{t}$ 是平 稳序列。若零均值平稳序列 $X_{t}$ 能表示为式 (18.14) 的形式, 这种形式称为 传递形式, $\left\{\boldsymbol{G}_{\boldsymbol{k}}, \boldsymbol{k}=\mathbf{0}, 1,2, \cdots\right\}$ 称为 Green 函数。
定义 6 设 $\left\{X_{t}, t=0, \pm 1, \pm 2, \cdots\right\}$ 是零均值平稳序列, 从时间序列预报 的角度引出偏相关函数的定义。如果已知 $\left\{X_{t-1}, X_{t-2}, \cdots, X_{t-k}\right\}$ 的值, 要求对 $X_{t}$ 做出预报。此时, 可以考虑由 $\left\{X_{t-1}, X_{t-2}, \cdots, X_{t-k}\right\}$ 对 $X_{t}$ 的线性最小均方估 计, 即选择系数 $\phi_{k, 1}, \phi_{k, 2}, \cdots, \phi_{k, k}$, 使得 $$ \min \delta=E\left[\left(X_{t}-\sum_{j=1}^{k} \phi_{k, j} X_{t-j}\right)^{2}\right] . $$ 将 $\delta$ 展开, 得 $$ \delta=\gamma_{0}-2 \sum_{j=1}^{k} \phi_{k, j} \gamma_{j}+\sum_{j=1}^{k} \sum_{i=1}^{k} \phi_{k, j} \phi_{k, i} \gamma_{j-i} $$ 令 $\frac{\partial \delta}{\partial \phi_{k, j}}=0, j=1,2, \cdots, k$, 得 $$ -\gamma_{j}+\sum_{i=1}^{k} \phi_{k, i} \gamma_{j-i}=\mathbf{0}, j=1,2, \cdots, k . $$ 两端同除 $\gamma_{0}$ 并写成矩阵形式, 可知 $\phi_{k, j}$ 应满足下列线性方程组 $$ \left[\begin{array}{cccc} 1 & \rho_{1} & \cdots & \rho_{k-1} \\ \rho_{1} & 1 & \cdots & \rho_{k-2} \\ \vdots & \vdots & & \vdots \\ \rho_{k-1} & \rho_{k-2} & \cdots & 1 \end{array}\right]\left[\begin{array}{c} \phi_{k, 1} \\ \phi_{k, 2} \\ \vdots \\ \phi_{k, k} \end{array}\right]=\left[\begin{array}{c} \rho_{1} \\ \rho_{2} \\ \vdots \\ \rho_{k} \end{array}\right] . $$ 式 称为 Yule-Walker 方程。我们称 $\left\{\phi_{k, k}, k=1,2, \cdots\right\}$ 为 $X_{t}$ 的偏相关 函数。